Павел Осипович Сухой родился 22 июля 1895 года в селе Глубокое Дисненского уезда Виленской губернии Российской империи (ныне - город Глубокое Витебской области, Белорусия) в семье учителя народной школы. Его отец, Осип Андреевич Сухой, получил образование в учительской семинарии, работал учителем в родном селе. Мать - Елизавета Яковлевна Гисич. В семье Сухих было шестеро детей: пять девочек и один мальчик — Павел.
 В 1914 году Павел блестяще окончил Гомельскую Александровскую мужскую гимназию. В том же году он, успешно сдав вступительные экзамены, поступил в Императорское Московское техническое училище. Здесь он стал членом Кружка воздухоплавания, который создал и которым руководил профессор Н. Е. Жуковский. Однако вскоре началась Первая мировая война, а затем и Октябрьская революция, что вынудило Павла вернуться в родительский дом в Гомеле.
 Осень 1921 года Павел вернулся в Москву и смог завершить обучение. В начале 1924 года он стал работать чертёжником в экспериментальном отделе ЦАГИ. вскоре он успешно защитил дипломный проект на тему: «Одноместный истребитель с мотором 300 лошадиных сил». Ему присваивает квалификация инженера-механика.
 «Истребитель четвёртый» И-4 (АНТ-5) стал первым самолётом, в конструировании которого Павел Сухой принял участие. Молодой инженер создал оригинальную конструкцию подмоторной рамы, которая изготавливалась штамповкой, что удешевляло её производство. В дальнейшем на заводе № 22 Сухой занимался доводкой конструкции самолёта и его запуском в серийное производство.
 В октябре 1930 года Павел Сухой стал заместителем главного конструктора Андрея Туполева и возглавил Бригаду № 4, получив возможность самостоятельно руководить разработкой и постройкой самолётов. Это стало основой формирования конструкторского коллектива будущего авиационного конструкторского бюро.
 В 1933 году Центральный аэрогидродинамический институт отметил пятнадцатилетие своей деятельности. За успешное создание серийных боевых самолётов-истребителей И-4 и И-14 Павел Сухой был награждён орденом Красной Звезды. Под общим руководством А. Туполева в Конструкторской бригаде №3 Павлом Сухим созданы истребитель И-14, рекордные самолёты АНТ-25 РД «Рекордная дальность» (боевой вариант ДБ-1) и АНТ-37бис «Родина» (боевые варианты ДБ-2 и ДБ-2Б).
 За победу в конкурсе на проектирование ближнего бомбардировщика ББ-1 Павел Сухой получил право на создание собственного авиационного конструкторского бюро. 29 июля 1939 года Павел Сухой вступил в должность Главного авиационного конструктора нового ОКБ. Самолёты, которые проектировались под руководством П. О. Сухого, стали носить обозначение «Су» — индекс, сокращение от фамилии руководителя ОКБ со сквозной нумерацией.
 1939−1940 годах Павел Сухой занимает должность главного конструктора на авиационном заводе №135 в Харькове. 1940—1949 годах Павел Сухой — главный конструктор КБ, базировавшегося на ряде заводов в Подмосковье и Москве. Одновременно Павел Сухой - директор этих заводов. В 1939—1941 годах в ОКБ Павла Сухого созданы истребители Су-1, Су-3, Су-5, а также модификация Су-2 «штурмовик-бомбардировщик» ШБ, он же «ближний бомбардировщик второй» ББ-2. Однако эти самолёты на вооружении приняты не были и в серию не пошли.
 В конце Второй мировой войны Сухой одним из первых начал работать над проектами реактивных самолётов, считая, что за ними будущее авиации. Под руководством Павла Сухого стали разрабатываться сразу два направления новых машин — со стреловидным крылом, получившим кодовое наименование «С», и треугольным, получившим кодовое наименование «Т». Успешно были реализованы оба проекта, а впоследствии, благодаря подобным наработкам, был создан Су-17 — первый в СССР самолёт с изменяемой геометрией крыла. Всего под руководством Сухого было разработано около 50 конструкций самолётов, многие из которых произвели настоящую революцию в авиастроении. 
 Жил и работал в Москве. В последнее годы обострились последствия перенесённого на фронте туберкулёза лёгких. Скончался 15 сентября 1975 года в подмосковном санатории Барвиха. Похоронен в Москве на Новодевичьем  кладбище.